Artificial Intelligence (AI) and its applications have sparked extraordinary interest in recent years. This achievement can be ascribed in part to advances in AI subfields including Machine Learning (ML), Computer Vision (CV), and Natural Language Processing (NLP). Deep learning, a sub-field of machine learning that employs artificial neural network concepts, has enabled the most rapid growth in these domains. The integration of vision and language has sparked a lot of attention as a result of this. The tasks have been created in such a way that they properly exemplify the concepts of deep learning. In this review paper, we provide a thorough and an extensive review of the state of the arts approaches, key models design principles and discuss existing datasets, methods, their problem formulation and evaluation measures for VQA and Visual reasoning tasks to understand vision and language representation learning. We also present some potential future paths in this field of research, with the hope that our study may generate new ideas and novel approaches to handle existing difficulties and develop new applications.

人脸图像通常以广泛的视觉量表出现。现有的面部表示通过组装有限系列的预定尺度的多尺度方案来追求处理量表变化的带宽。这种多弹药方案带来了推理负担，而预定义的量表不可避免地从真实数据中差异。取而代之的是，从数据中学习比例参数，并将其用于单发功能推理是一个不错的解决方案。为此，我们通过诉诸规模空间理论并实现两倍的设施来改革Conv层：1）Conv层从真实数据分布中学习一组尺度，每个数据分布都由Conv内核来实现； 2）该图层自动在适当的通道和位置上突出显示与输入模式量表及其存在相对应的位置。然后，我们通过堆叠改革层的层来实现分层尺度的关注，建立一种名为“比例尺注意Cons Neurnet网络”（\ textbf {scan-cnn}）的新颖风格。我们将扫描CNN应用于面部识别任务，并推动SOTA性能的前沿。当面部图像模糊时，准确性增长更为明显。同时，作为单发方案，该推断比多弹性融合更有效。与普通CNN相比，制造了一组工具，以确保对扫描CNN进行快速训练和推理成本的零增加。

最初引入了知识蒸馏，以利用来自单一教师模型的额外监督为学生模型培训。为了提高学生表现，最近的一些变体试图利用多个教师利用不同的知识来源。然而，现有研究主要通过对多种教师预测的平均或将它们与其他无标签策略相结合，将知识集成在多种来源中，可能在可能存在低质量的教师预测存在中误导学生。为了解决这个问题，我们提出了信心感知的多教师知识蒸馏（CA-MKD），该知识蒸馏（CA-MKD）在地面真理标签的帮助下，适用于每个教师预测的样本明智的可靠性，与那些接近单热的教师预测标签分配了大量的重量。此外，CA-MKD包含中间层，以进一步提高学生表现。广泛的实验表明，我们的CA-MKD始终如一地优于各种教师学生架构的所有最先进的方法。

字体遍布文档普遍存在，有各种风格。它们以本机向量格式表示或光栅化以产生固定分辨率图像。在第一种情况下，非标准表示可防止受益于最新网络架构进行神经表示;虽然在后一种情况下，在通过网络编码时，光栅化表示导致数据保真度丢失，作为像边缘和角落的字体特定的不连续性难以使用神经网络代表。基于观察到复杂字体可以通过一组更简单的占用函数的叠加来表示，我们介绍\ texit {multi-inclicicits}以将字体表示为置换不变集的学习隐含功能，而不会丢失特征（例如，棱角）。然而，虽然多种含义本地保护字体特征，但以地面真理多通道信号的形式获得监控是本身的问题。相反，我们提出了如何只用本地监督培训这种表示，而建议的神经架构直接发现字体系列的全球一致的多型多种含义。我们广泛地评估了各种任务的建议代表，包括重建，插值和综合，以证明具有现有替代品的明显优势。另外，表示自然地启用字形完成，其中单个特征字体用于在目标样式中综合整个字体系列。

先前的关于自我监督预训练的研究重点是联合培训方案，在该场景中，假定大量未标记的数据一次性地将其作为输入，只有那时才受过培训的学习者。不幸的是，这种问题设置通常是不切实际的，即使不是不可行的，因为许多现实世界的任务依赖于顺序学习，例如，数据是以流方式分散或收集的。在本文中，我们对通过流数据进行了对自我监督的预训练进行了首次彻底而专门的研究，旨在阐明这种被忽视的设置下的模型行为。具体而言，我们在来自ImageNet和域内的四类预训练流数据数据上预先培训超过500个模型，并在三种类型的下游任务和12个不同的下游数据集上对其进行评估。我们的研究表明，以某种方式超出了我们的期望，通过简单的数据重播或参数正则化，顺序的自我监督预训练的预训练证明是联合预训练的有效替代方法，因为前者的性能主要与这些培训相同后者。此外，灾难性的遗忘是顺序监督学习中的一个常见问题，在顺序的自学学习（SSL）中得到了极大的缓解，这是通过我们对损失景观中最小值的表示和敏锐度的全面经验分析来很好地证明的。因此，我们的发现表明，在实践中，对于SSL，可以主要通过顺序学习来代替繁琐的联合培训，这反过来又可以更广泛的潜在应用方案。

Fingerphoto images captured using a smartphone are successfully used to verify the individuals that have enabled several applications. This work presents a novel algorithm for fingerphoto verification using a nested residual block: Finger-NestNet. The proposed Finger-NestNet architecture is designed with three consecutive convolution blocks followed by a series of nested residual blocks to achieve reliable fingerphoto verification. This paper also presents the interpretability of the proposed method using four different visualization techniques that can shed light on the critical regions in the fingerphoto biometrics that can contribute to the reliable verification performance of the proposed method. Extensive experiments are performed on the fingerphoto dataset comprised of 196 unique fingers collected from 52 unique data subjects using an iPhone6S. Experimental results indicate the improved verification of the proposed method compared to six different existing methods with EER = 1.15%.

Machine learning models usually assume i.i.d data during training and testing, but data and tasks in real world often change over time. To emulate the transient nature of real world, we propose a challenging but practical task: text classification in-the-wild, which introduces different non-stationary training/testing stages. Decomposing a complex task into modular components can enable robust generalisation under such non-stationary environment. However, current modular approaches in NLP do not take advantage of recent advances in parameter efficient tuning of pretrained language models. To close this gap, we propose MODULARPROMPT, a label-modular prompt tuning framework for text classification tasks. In MODULARPROMPT, the input prompt consists of a sequence of soft label prompts, each encoding modular knowledge related to the corresponding class label. In two of most formidable settings, MODULARPROMPT outperforms relevant baselines by a large margin demonstrating strong generalisation ability. We also conduct comprehensive analysis to validate whether the learned prompts satisfy properties of a modular representation.

我们考虑使用修改后的Relu神经网络进行回归估计，其中首先通过函数$ \ alpha $修改网络权重矩阵，然后再乘以输入向量。我们举例说明连续的，分段线性函数$ \ alpha $为此，以$ l_1 $和Squared $ l_2 $惩罚的经验风险最小化符合经验的风险最小化，最多可进行预测率未知的$ \ beta $ -smooth函数。

随着时间的推移，视频活动定位的当前方法隐含地假设标记为模型训练的活动时间边界是确定且精确的。但是，在无脚本的自然视频中，不同的活动主要是顺利进行的，因此确切地确定活动何时随着时间的推移开始和结束，确定在本质上是模棱两可的。目前，在模型培训中，这种时间标签中的这种不确定性被忽略了，从而导致学习错误匹配的视频文本相关性，而测试中的概括不佳。在这项工作中，我们通过引入弹性力矩边界（EMB）来解决此问题，以适应灵活和适应性活动的时间边界，以建模普遍可解释的视频文本相关性与对预固定注释中的时间不确定性的宽容相关性。具体而言，我们通过挖掘和发现框架的时间端点可以适应地构建弹性边界，从而可以最大程度地利用视频片段和查询句子之间的对齐方式。为了启用更健壮的匹配（段内容注意力）和更准确的定位（段弹性边界），我们通过新颖的引导注意力机制优化了框架端点的选择。在三个视频活动定位基准上进行的广泛实验表明，在没有建模不确定性的情况下，EMB比现有方法的优势令人信服。

从大规模训练数据集中获利，神经结构设计和高效推断的进步，联合嵌入成为解决交叉模态检索的主导方法。在这项工作中，我们首先表明，尽管他们有效性，但最先进的联合嵌入从长期的封闭问题中遭受显着遭受显着的困扰，其中少数画廊嵌入形成了许多查询的最近邻居。从NLP文献中汲取灵感，我们制定了一个称为QueryBank归一化（QB-Norm）的简单但有效的框架，该框架重新归属查询相似度，以解释嵌入空间中的集线器。 qb-norm提高了检索性能而不需要再培训。与事先工作不同，我们显示QB-​​Norm有效地工作，而不会对任何测试设置查询进行操作。在QB-Norm框架内，我们还提出了一种新颖的相似性归一化方法，动态倒置Softmax，比现有方法明显更强大。我们在一系列交叉模态检索模型和基准中展示了QB-Norm，在那里它一直增强超出现有技术的强基线。代码可在https://vladbogo.github.io/qb-norm/处获得。